Training Small Language Models for Transferable Tool Selection
训练小语言模型实现可迁移的工具选择
🧭 Agent工具选择与跨域迁移 ★ 深度解读
Meta · Carnegie Mellon University
用SFT+RL训练Qwen3小模型，在Plan-Retrieve-Select流程中超过Llama-4-Maverick并零样本迁移工具域
📌 工作参考价值（4 点）
- 多意图查询先 Plan 再按子意图 Retrieve：将用户请求拆成独立 substep 后分别召回，可缓解电商搜索中“订酒店+订机票”类多意图相互干扰；Select 只从 top-K 候选中选一个，上下文可控，适合小模型部署。
- 训练小模型做 selection policy 时，可复用「SFT 冷启动 + GRPO 强化」：用大模型生成 teacher trajectories；Plan reward 用 retriever 命中 gold 的 precision/recall/F1，Select reward 用 exact match，无需额外人工标注。生产上可训练 1-8B 模型替代大模型 API 做工具/物料筛选。
- 把 retriever 抽象成接口：训练用 BM25，推理可换 COLT 等 dense retriever，无需重训；模型继承更强召回。电商/Agent 系统里可把召回层与精排/选择策略解耦，便于替换底层索引。
- 注意 gold label 噪声过滤：只保留仅凭 query 就能识别出工具/商品的样本，否则会教模型选无关项；同时跨域多步任务 Plan 可能失效，必要时退回扁平 Search-R1 式推理。